On sort d’une période de 15 ans où le domaine de l’informatique médicale a été surinvesti, en espérant monts et merveilles. La transition s’est faite sur les dossiers médicaux électroniques, et sur beaucoup d’autres aspects. Mais la souffrance a été, et reste, grande pour le personnel et les institutions, confrontés sans compétences particulières à des univers nouveaux, fragiles, immatures dans de nombreuses applications, sans parler de l’arrivée de nouveaux risques sérieux comme la cybersécurité.

Pour le dire différemment, la transition vers le numérique était sans doute inévitable et largement profitable à terme. Elle avait un potentiel considérable et indiscutable d’amélioration de la sécurité (traçabilité, communication en réseau, partage d’informations). Mais la maturation de l’offre du marché et des usages a demandé pas loin d’une génération pour atteindre les buts annoncés, toute la période de transition et d’appropriation n’ayant été que souffrance et source de problèmes.

Un article récent de Robert Watcher, une des grandes figures de la sécurité du patient (Watcher 2012, 2014), fait le point sur le sujet (Watcher 2024).

La question se pose d’abord avec l’arrivée massive de Chat GPT et de ses dérivés depuis 2022 : ce que l’on appelle l’IA générative.

• Ces systèmes sont capables d’utiliser l’information disponible en contexte, de faire des résumés, et même de répondre en ligne (et dans plusieurs langues) aux demandes des professionnels et des usagers. Certains sont déjà capables de proposer des diagnostics sur la base des informations recueillies, et bien sûr de proposer les traitements ad hoc, en se basant sur une connaissance livresque et d’actualité quasi exhaustive si on leur donne l’accès.
  Rappelons ici deux articles récents, résumés dans la revues de presse de la prévention médicale de juillet 2023, qui montrent que des systèmes IA génératifs expérimentaux sont jugés plus efficaces par les patients pour des demandes de renseignements médicaux au téléphone que les docteurs, car ils répondent mieux sur le fond, plus vite (l’accès est sans comparaison) et de façon plus empathique (plus à l’écoute, et même plus compatissants)...
• Indépendamment de leur potentiel médical, ils sont des outils idéaux pour aider et optimiser les organisations des services, ressources humaines, ressources techniques, et planning d’activités (gestion intelligente des lits par exemple) afin d’augmenter la productivité médicale. Cette gestion optimisée est peut-être même son avantage principal et la justification la plus urgente pour l’introduction de ces systèmes intelligents dans les hôpitaux. En effet, la communauté médicale (ie Berwick, 2012) répète régulièrement, en disant que cela s’aggrave dans le temps, que la santé gaspille plus de 30 % de ses ressources et des milliers d’heures de travail dans des activités à très faible valeur ajoutée (pour le patient).

Watcher est bien plus réservé sur ces gains attendus, en rappelant et développant ce qu’il appelle le paradoxe de la productivité. 

Brynjolfsson (1993) rappelle dans ce paradoxe qu’il y a deux raisons récurrentes à ne pas profiter des bénéfices attendus d’une technologie nouvelle : 

• Immaturité des outils lors de l’introduction : les outils de la première génération sont plein de défauts techniques, encore mal ciblés dans leurs normes et applications, et il faut attendre plusieurs cycles d’amélioration avant d’en voir le bénéfice.
• Immaturité et impréparation des usagers : certes sur la formation technique, mais bien plus encore dans la capacité humaine à comprendre et digérer l’impact profond que ces outils nouveaux ont sur la culture, les métiers, les organisations et le système. Le bénéfice n’est acquis que quand ces impacts profonds ont été pris en compte, et cela peut prendre des années, voire des décennies, avec un prisme quasi générationnel. Les directeurs et penseurs du système global ont peur d’exprimer cette nécessité dès le départ pour ne pas provoquer de rejet, et du coup freinent l’adoption de la nouveauté en ne mettant pas en conformité les prérequis systémiques nécessaires. Ils jouent sur une évolution lente, alors que le succès demanderait souvent une révolution.

Ce paradoxe de la productivité se retrouve complétement en santé, et particulièrement avec l’introduction de ces nouveaux outils. La lenteur de l’adoption de l’informatisation en est un exemple évident. L’intelligence artificielle va probablement suivre le même chemin chaotique que l’introduction de l’informatique il y a 20 ans.

1. Aucun système d’IA générative ne pourra être développé efficacement sans accès (très) augmenté aux données médicales privées, ce qui se heurte pour le moment à un mur psychologique et éthique pour les professionnels de santé et les patients. Sans révolution (difficile à faire en l’état) sur la propriété des données médicales, ces systèmes n’auront pas d’avenir à grande échelle.
2. Paradoxalement, un second frein vient du marché devenu prolifique de l’informatisation médicale standardisée, qui s’est concentrée dans quelques mains industrielles puissantes qui voient d’un très mauvais œil l’arrivée de nouvelles sociétés spécialisées en IA pouvant prendre leur place. Rappelons que dans ce domaine comme dans bien d’autres exemples du passé (ie l’arrivée de la photo numérique par rapport à la photo argentique), les grandes innovations de rupture sont souvent portées par de nouveaux entrants industriels sous forme de startup, prêtes à assumer des risques sur un marché encore inexistant, demandant des compétences très décalées que les grands groupes négligent.
3. Un troisième frein porte sur la réglementation à venir et particulièrement sur le paiement de ces techniques. La santé est par définition un système multi-acteurs : État, autorités de santé, professionnels, patients, industriels. Les réglementations vont vouloir limiter les abus et en canaliser l’usage, sans doute après un temps de dissémination et d’évaluation des bénéfices/inconvénients qui sera déterminant pour fixer les coûts acceptables par les uns et les autres.
4. Un quatrième frein portera surement sur le caractère manquant, fluctuant, ou erroné de beaucoup de données médicales, qui n’aidera pas ces systèmes d’IA, même si l’on passe le cap de les autoriser à accéder aux données personnelles et à les utiliser.
5. Enfin, un dernier frein sera le bruit et la contre publicité que pourrait représenter tout évènement indésirable grave causé par ces technologies ; il y en aura forcément, et même beaucoup au début, le temps du réglage.

Watcher nous en propose cinq :

• Ces systèmes sont très intuitifs dans leur usage, et demandent bien moins d’apprentissage que les systèmes informatiques. Aucune formation n’est nécessaire.
• Ces systèmes se basent sur des programmes (du "soft" par rapport au "hard"), qui sont immédiatement gérables par les ordinateurs de toutes les marques, sans demande particulière d’achat de matériel (comme ce fut le cas pour l’informatisation médicale au départ).
• Même si la guerre commerciale est déjà lancée entre industriels développant l’informatique médicale traditionnelle et ces nouveaux venus, la capacité à greffer des morceaux d’IA générative sur les logiciels médicaux existants, et sur les dossiers électroniques des patients, apparaît très facile, et elle est déjà en cours.
• Leur capacité à corriger leur défaut, en autonome, est stupéfiante. Leur capacité d’apprentissage et d’auto-correction sans la main de l’homme est une caractéristique forte de ces systèmes. Même après des erreurs grossières (par exemple, récemment aux États-Unis, certains systèmes IA médicaux ont soutenu des propos et résultats racistes par le fait d’un apprentissage biaisé, mais la correction de la base de connaissances a été obtenue quasi immédiatement et spontanément, dès connaissances des réactions négatives des usagers). 
• Leur capacité à modifier et améliorer la productivité du système de santé est sans doute sans équivalent avec ce que l’on connaît. 

Il reste que ces progrès ne seront vraiment réels qu’on changeant profondément plusieurs aspects du système de santé et de sa culture. C’est sans doute le plus difficile à faire. Il faudra en grande partie "réinventer" le travail de demain. Toutefois, même si on sait que ces systèmes menacent plusieurs emplois, on vit avec le paradoxe en santé qu’on a un tel sous-effectif qu’ils pourraient être mieux acceptés que dans d’autres industries.

Une page s’ouvre… une révolution à faire sur le fond.
On va vivre au moins 10 ans de transition.
Espérons qu’on en tirera le meilleur et qu’on évitera le pire.

Pour aller plus loin

Berwick DM, Hackbarth AD.  Eliminating waste in US health care. JAMA. 2012;307(14):1513-1516.
Brynjolfsson E. The productivity paradox of information technology. Commun ACM. 1993;36(12):66-77. 
Wachter RM (2012). Understanding patient safety 2. New York, McGraw-Hill Medical.
Wachter RM. The Digital Doctor : Hope, Hype and Harm at the Dawn of Medicine’s Computer Age. McGraw-Hill ; 2015.
Wachter RM, & Brynjolfsson E (2023). Will Generative Artificial Intelligence Deliver on Its Promise in Health Care ? JAMA 2024;331(1):65-69.